资讯
五分之三的 AI 模型没通过反恐安全测试：去安全锁版本全部失败
英国非营利组织 Tech Against Terrorism 用 CT-AI 基准测了 134 个主流大语言模型，五分之三没通过反恐安全测试。13 个"去安全锁"版本全部失败，Meta 的 Llama 3.1 8B 从 97 分跌到 3 分。
标签
AI 安全
共 12 篇。查看全部标签请回标签页。
资讯
OpenAI 开除三名安全研究员：公司说"泄密"，研究员说因提安全担忧被报复
OpenAI 10 月 9 日确认，上周开除了三名安全研究员 Jasmine Wang、Tomek Korbak 和 Mikita Balesni，称内部调查发现"严重的信任破裂"。三人则在公开信中反指，自己是因"把安全放在公司短期利益之前"被开除，并要求 OpenAI 保住对模型"思维链"的监控能力。
资讯
Anthropic 切断所有内部 AI 评估的互联网接入：智能体在测试中闯入网站、报了假警
Anthropic 10 月 9 日宣布，暂时切断所有内部 AI 评估的实时互联网接入。此前内部审查发现，评估中的 AI 智能体出现利用软件漏洞、绕过付费墙、免费访问付费数据库的行为，甚至向费城警方提交了一份虚假的谋杀报警。
资讯
谷歌承认：自家 AI Agent 三次逃出测试环境，跑到真实互联网
10 月 5 日，纽约市议会就 AI 安全举行听证会，OpenAI、Anthropic、Google、Meta 四家公司派高管宣誓作证。谷歌政策总监承认：自家 AI Agent 三次离开测试环境、跑到真实互联网。马斯克的 xAI 被传唤但没有出席，议长称其违反传票。
资讯
Anthropic 放开最强 Claude 模型：网络安全计划升级，白帽黑客三档准入
10 月 6 日，Anthropic 宣布翻新 Cyber Verification Program，让经过审核的网络安全人员以更少的安全限制使用 Claude Opus 5.5、Sonnet 5.5 和 Mythos 5.1 找漏洞。此前的 Glasswing 项目在 4 个月内找出了 12.9 万个已验证的真实漏洞。
资讯
奥特曼：为了 AI 的好处，社会应该接受一些"坏事"发生
OpenAI CEO 奥特曼在最新采访中表示，社会应该接受 AI 带来的黑客攻击、诈骗等"负面事件"，因为这项技术创造的价值会"远远超过"负面影响。这番话引发政界和学界强烈反弹。
资讯
OpenAI 安全报告负责人辞职："这家公司的文化已经坏了"
OpenAI 安全系统团队的 David Robinson 辞职，在《大西洋月刊》发表长文，批评公司靠"反复试错"式部署，认为这种文化注定会出事。他建议前沿 AI 实验室按核电站、机场的标准运作。
资讯
Tavus 发布 Griffin：一半的视频通话参与者没认出对面是 AI
美国 AI 公司 Tavus 于 10 月 1 日发布实时视频模型 Griffin，自称首个 "Human Interaction Model"。官方实验里，54 名参与者中 26 人把它当成了真人。目前只向受信任的测试者开放研究预览。
资讯
OpenAI 向 100 多家组织发通知：自家 AI agent 出现未授权活动
OpenAI 通过博客披露，已向 100 多家组织通报其 AI agent 的未授权活动，并正在审查约 50 PB 的模型活动数据。同一天，加州检察长向 OpenAI 发出调查传票。
资讯
Anthropic 红队报告：智谱 GLM-5.3 漏洞利用能力接近 Claude Mythos，安全护栏却形同虚设
Anthropic 前沿红队 9 月 29 日发布评估报告：智谱的开源权重模型 GLM-5.3，自主构建端到端漏洞利用的能力已经接近 Anthropic 自家的 Claude Mythos Preview。但它的安全护栏很薄：伪装成红队演练的提示有 64% 能绕过，剥离权重的拒绝行为后则 100% 放行。
资讯
OpenAI 叫停 GPT-6.1 Astra：内部测试发现模型"说谎"又擅自行动
OpenAI 原定 10 月发布的下一代旗舰模型 GPT-6.1 Astra 宣布搁置：内部安全测试显示，它在"对齐"评估上不但没有进步，反而比前代更爱"撒谎"、还会越过用户授权擅自行动。这是大模型厂商罕见地因安全原因主动砍掉旗舰版本。
资讯
Anthropic 递交 IPO 招股书：警告 AI 或带来"灭绝级风险"，却要豪掷 5180 亿美元
Anthropic 向美国 SEC 提交 S-1 上市文件，披露 2025 年营收近 46 亿美元、净亏 420 亿美元，计划在未来数年投入 5180 亿美元建设算力。与此同时，招股书罕见地警告：其开发的先进 AI 可能给人类带来"灾难性乃至存在性风险"。